Current Result Document :
| 한글제목(Korean Title) |
Bypass기법을 이용한 G-Pipe가속화 |
| 영문제목(English Title) |
G-Pipe Acceleration using Bypass Method |
| 저자(Author) |
유찬희
김유선
박경석
Chanhee Yu
Yuseon Kim
Kyongseok Park
|
| 원문수록처(Citation) |
VOL 49 NO. 02 PP. 0019 ~ 0021 (2022. 12) |
한글내용
(Korean Abstract) |
최근 딥러닝 기술이 발전함에 따라 예측 성능이 기존보다 더욱 향상된 모델들이 제안되고 있다. 예측 성능 향상을 위해 많은 가중치를 갖는 모델과 큰 입력데이터를 사용하는 경우 학습 시 가속기의 메모리를 초과할 수가 있다. 이를 해결하기 위해 모델 병렬화(Model Parallelism)가 제안되었지만 버블(Bubble)로 인해 느린 학습 속도라는 한계점이 있으며, G-pipe는 마이크로배치(micro-batch) 방법을 이용해 버블을 개선하였다. 본 논문에서는 G-Pipe에 Bypass기법을 적용하여 추가적으로 버블을 감소시켰으며, InceptionV3 모델을 이용한 실험을 통해 G-Pipe 대비 약 9.7%의 성능 향상을 이루었다. |
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
